앤스로픽이 고성능 신규 모델인 '클로드 미토스(Mythos) 5'와 '페이블(Fable) 5'에 대해 안전성 및 악용 방지를 목적으로 프롬프트 및 출력 데이터를 30일간 의무적으로 보관하는 정책을 도입했습니다. 이번 조치는 기존에 데이터를 저장하지 않던(ZDR) 기업 및 플랫폼(API 등) 고객에게만 해당되며, 일반 소비자 요금제 사용자에게는 변화가 없습니다.
AI 모델 클로드(Claude)를 특정 기능에 사용할 때 여권이나 운전면허증 등 신분증과 실시간 셀카를 통한 본인인증이 의무화됩니다. 강력한 기술의 책임감 있는 사용, 악용 방지 및 법적 의무 준수를 위한 조치로 풀이됩니다. 사용자의 신원 데이터는 AI 모델 학습에 절대 사용되지 않으며, 파트너사인 Persona를 통해 암호화되어 안전하게 관리됩니다.
오픈AI가 AI 기술을 악용한 아동 성 착취 범죄 급증에 대응하기 위해 미국 내 아동 보호 노력을 강화하는 '아동 안전 청사진'을 발표했습니다. 이 청사진은 법률 개정, 수사 기관 보고 체계 개선, AI 시스템 내 예방 조치 통합 등 3가지 핵심 분야에 중점을 두어 위협을 조기에 탐지하고 신속하게 수사관에게 정보를 전달하는 것을 목표로 합니다. 이는 최근 AI 챗봇과의 상호작용으로 인한 자살 사망 사고로 인한 정책 입안자들의 비판과 소송이 잇따르는 가운데 나온 안전 강화 조치입니다.